오픈AI가 13~17세 사용자를 위한 청소년 전용 ChatGPT를 출시했습니다. 자살·자해·섭식장애·성적 콘텐츠 등에 대해 더 엄격한 안전장치를 적용하고, 숙제를 물으면 정답 대신 스스로 풀도록 유도하는 후속 질문을 제공합니다. 연령 확인은 직접 하지 않고 2,000개 이상의 행동 신호로 18세 미만을 판별하며, 이는 유해 콘텐츠 노출로 인한 소송 등 법적 압박이 커진 상황에서 나온 조치입니다.
MIT 박사 출신이 창업한 비영리 기술 기업 코코(Koko)는 틱톡, 디스코드 등 청소년들이 자주 접속하는 온라인 플랫폼을 통해 연구 기반의 정신건강 개입 서비스를 제공합니다. AI 봇 및 메신저를 활용해 익명성을 보장하는 peer-to-peer 지원 시스템을 구축함으로써, 글로벌 청소년들이 쉽고 접근성 높게 정신 건강 관리를 받을 수 있도록 돕는 것이 핵심입니다.
미국 펜실베이니아주의 래드노 고등학교에서 남학생이 AI 딥페이크 앱을 이용해 5명의 여학생 얼굴을 합성한 성적 허위 영상을 제작해 동료들에게 유포한 사건이 발생했습니다. 학교 측의 미온적인 대처와 피해자 격리 조치 등은 학교 밖 일어난 사이버 성폭력에 대해 학교가 어디까지 책임져야 하는지에 관한 법적·사회적 논쟁을 촉발시켰습니다. 이 사건은 딥페이크 기술이 청소년들 사이에서 얼마나 쉽게 악용될 수 있는지 보여주며, 교육 당국의 실효성 있는 보호 정책과 대응 지침이 시급함을 시사합니다.